Commit 34e80422 authored by Rodrigo Vivi's avatar Rodrigo Vivi

drm/xe: Make xe_ggtt_node struct independent

In some rare cases, the drm_mm node cannot be removed synchronously
due to runtime PM conditions. In this situation, the node removal will
be delegated to a workqueue that will be able to wake up the device
before removing the node.

However, in this situation, the lifetime of the xe_ggtt_node cannot
be restricted to the lifetime of the parent object. So, this patch
introduces the infrastructure so the xe_ggtt_node struct can be
allocated in advance and freed when needed.

By having the ggtt backpointer, it also ensure that the init function
is always called before any attempt to insert or reserve the node
in the GGTT.

v2: s/xe_ggtt_node_force_fini/xe_ggtt_node_fini and use it
    internaly (Brost)
v3: - Use GF_NOFS for node allocation (CI)
    - Avoid ggtt argument, now that we have it inside the node (Lucas)
    - Fix some missed fini cases (CI)
v4: - Fix SRIOV critical case where config->ggtt_region was
      lost (Michal)
    - Avoid ggtt argument also on removal (missed case on v3) (Michal)
    - Remove useless checks (Michal)
    - Return 0 instead of negative errno on a u32 addr. (Michal)
    - s/xe_ggtt_assign/xe_ggtt_node_assign for coherence, while we
      are touching it (Michal)
v5: - Fix VFs' ggtt_balloon

Cc: Matthew Auld <matthew.auld@intel.com>
Cc: Michal Wajdeczko <michal.wajdeczko@intel.com>
Cc: Matthew Brost <matthew.brost@intel.com>
Reviewed-by: default avatarMatthew Brost <matthew.brost@intel.com>
Link: https://patchwork.freedesktop.org/patch/msgid/20240821193842.352557-11-rodrigo.vivi@intel.comSigned-off-by: default avatarRodrigo Vivi <rodrigo.vivi@intel.com>
parent 15ca0949
...@@ -20,7 +20,7 @@ struct xe_bo; ...@@ -20,7 +20,7 @@ struct xe_bo;
struct i915_vma { struct i915_vma {
struct xe_bo *bo, *dpt; struct xe_bo *bo, *dpt;
struct xe_ggtt_node node; struct xe_ggtt_node *node;
}; };
#define i915_ggtt_clear_scanout(bo) do { } while (0) #define i915_ggtt_clear_scanout(bo) do { } while (0)
...@@ -29,7 +29,7 @@ struct i915_vma { ...@@ -29,7 +29,7 @@ struct i915_vma {
static inline u32 i915_ggtt_offset(const struct i915_vma *vma) static inline u32 i915_ggtt_offset(const struct i915_vma *vma)
{ {
return vma->node.base.start; return vma->node->base.start;
} }
#endif #endif
...@@ -204,20 +204,28 @@ static int __xe_pin_fb_vma_ggtt(const struct intel_framebuffer *fb, ...@@ -204,20 +204,28 @@ static int __xe_pin_fb_vma_ggtt(const struct intel_framebuffer *fb,
if (xe_bo_is_vram(bo) && ggtt->flags & XE_GGTT_FLAGS_64K) if (xe_bo_is_vram(bo) && ggtt->flags & XE_GGTT_FLAGS_64K)
align = max_t(u32, align, SZ_64K); align = max_t(u32, align, SZ_64K);
if (bo->ggtt_node.base.size && view->type == I915_GTT_VIEW_NORMAL) { if (bo->ggtt_node && view->type == I915_GTT_VIEW_NORMAL) {
vma->node = bo->ggtt_node; vma->node = bo->ggtt_node;
} else if (view->type == I915_GTT_VIEW_NORMAL) { } else if (view->type == I915_GTT_VIEW_NORMAL) {
u32 x, size = bo->ttm.base.size; u32 x, size = bo->ttm.base.size;
ret = xe_ggtt_node_insert_locked(ggtt, &vma->node, size, align, 0); vma->node = xe_ggtt_node_init(ggtt);
if (ret) if (IS_ERR(vma->node)) {
ret = PTR_ERR(vma->node);
goto out_unlock;
}
ret = xe_ggtt_node_insert_locked(vma->node, size, align, 0);
if (ret) {
xe_ggtt_node_fini(vma->node);
goto out_unlock; goto out_unlock;
}
for (x = 0; x < size; x += XE_PAGE_SIZE) { for (x = 0; x < size; x += XE_PAGE_SIZE) {
u64 pte = ggtt->pt_ops->pte_encode_bo(bo, x, u64 pte = ggtt->pt_ops->pte_encode_bo(bo, x,
xe->pat.idx[XE_CACHE_NONE]); xe->pat.idx[XE_CACHE_NONE]);
ggtt->pt_ops->ggtt_set_pte(ggtt, vma->node.base.start + x, pte); ggtt->pt_ops->ggtt_set_pte(ggtt, vma->node->base.start + x, pte);
} }
} else { } else {
u32 i, ggtt_ofs; u32 i, ggtt_ofs;
...@@ -226,11 +234,19 @@ static int __xe_pin_fb_vma_ggtt(const struct intel_framebuffer *fb, ...@@ -226,11 +234,19 @@ static int __xe_pin_fb_vma_ggtt(const struct intel_framebuffer *fb,
/* display seems to use tiles instead of bytes here, so convert it back.. */ /* display seems to use tiles instead of bytes here, so convert it back.. */
u32 size = intel_rotation_info_size(rot_info) * XE_PAGE_SIZE; u32 size = intel_rotation_info_size(rot_info) * XE_PAGE_SIZE;
ret = xe_ggtt_node_insert_locked(ggtt, &vma->node, size, align, 0); vma->node = xe_ggtt_node_init(ggtt);
if (ret) if (IS_ERR(vma->node)) {
ret = PTR_ERR(vma->node);
goto out_unlock; goto out_unlock;
}
ret = xe_ggtt_node_insert_locked(vma->node, size, align, 0);
if (ret) {
xe_ggtt_node_fini(vma->node);
goto out_unlock;
}
ggtt_ofs = vma->node.base.start; ggtt_ofs = vma->node->base.start;
for (i = 0; i < ARRAY_SIZE(rot_info->plane); i++) for (i = 0; i < ARRAY_SIZE(rot_info->plane); i++)
write_ggtt_rotated(bo, ggtt, &ggtt_ofs, write_ggtt_rotated(bo, ggtt, &ggtt_ofs,
...@@ -318,14 +334,11 @@ static struct i915_vma *__xe_pin_fb_vma(const struct intel_framebuffer *fb, ...@@ -318,14 +334,11 @@ static struct i915_vma *__xe_pin_fb_vma(const struct intel_framebuffer *fb,
static void __xe_unpin_fb_vma(struct i915_vma *vma) static void __xe_unpin_fb_vma(struct i915_vma *vma)
{ {
struct xe_device *xe = to_xe_device(vma->bo->ttm.base.dev);
struct xe_ggtt *ggtt = xe_device_get_root_tile(xe)->mem.ggtt;
if (vma->dpt) if (vma->dpt)
xe_bo_unpin_map_no_vm(vma->dpt); xe_bo_unpin_map_no_vm(vma->dpt);
else if (!xe_ggtt_node_allocated(&vma->bo->ggtt_node) || else if (!xe_ggtt_node_allocated(vma->bo->ggtt_node) ||
vma->bo->ggtt_node.base.start != vma->node.base.start) vma->bo->ggtt_node->base.start != vma->node->base.start)
xe_ggtt_node_remove(ggtt, &vma->node, false); xe_ggtt_node_remove(vma->node, false);
ttm_bo_reserve(&vma->bo->ttm, false, false, NULL); ttm_bo_reserve(&vma->bo->ttm, false, false, NULL);
ttm_bo_unpin(&vma->bo->ttm); ttm_bo_unpin(&vma->bo->ttm);
......
...@@ -1120,7 +1120,7 @@ static void xe_ttm_bo_destroy(struct ttm_buffer_object *ttm_bo) ...@@ -1120,7 +1120,7 @@ static void xe_ttm_bo_destroy(struct ttm_buffer_object *ttm_bo)
xe_assert(xe, list_empty(&ttm_bo->base.gpuva.list)); xe_assert(xe, list_empty(&ttm_bo->base.gpuva.list));
if (bo->ggtt_node.base.size) if (bo->ggtt_node && bo->ggtt_node->base.size)
xe_ggtt_remove_bo(bo->tile->mem.ggtt, bo); xe_ggtt_remove_bo(bo->tile->mem.ggtt, bo);
#ifdef CONFIG_PROC_FS #ifdef CONFIG_PROC_FS
......
...@@ -194,9 +194,12 @@ xe_bo_main_addr(struct xe_bo *bo, size_t page_size) ...@@ -194,9 +194,12 @@ xe_bo_main_addr(struct xe_bo *bo, size_t page_size)
static inline u32 static inline u32
xe_bo_ggtt_addr(struct xe_bo *bo) xe_bo_ggtt_addr(struct xe_bo *bo)
{ {
XE_WARN_ON(bo->ggtt_node.base.size > bo->size); if (XE_WARN_ON(!bo->ggtt_node))
XE_WARN_ON(bo->ggtt_node.base.start + bo->ggtt_node.base.size > (1ull << 32)); return 0;
return bo->ggtt_node.base.start;
XE_WARN_ON(bo->ggtt_node->base.size > bo->size);
XE_WARN_ON(bo->ggtt_node->base.start + bo->ggtt_node->base.size > (1ull << 32));
return bo->ggtt_node->base.start;
} }
int xe_bo_vmap(struct xe_bo *bo); int xe_bo_vmap(struct xe_bo *bo);
......
...@@ -40,7 +40,7 @@ struct xe_bo { ...@@ -40,7 +40,7 @@ struct xe_bo {
/** @placement: current placement for this BO */ /** @placement: current placement for this BO */
struct ttm_placement placement; struct ttm_placement placement;
/** @ggtt_node: GGTT node if this BO is mapped in the GGTT */ /** @ggtt_node: GGTT node if this BO is mapped in the GGTT */
struct xe_ggtt_node ggtt_node; struct xe_ggtt_node *ggtt_node;
/** @vmap: iosys map of this buffer */ /** @vmap: iosys map of this buffer */
struct iosys_map vmap; struct iosys_map vmap;
/** @ttm_kmap: TTM bo kmap object for internal use only. Keep off. */ /** @ttm_kmap: TTM bo kmap object for internal use only. Keep off. */
......
...@@ -204,7 +204,7 @@ struct xe_tile { ...@@ -204,7 +204,7 @@ struct xe_tile {
struct xe_memirq memirq; struct xe_memirq memirq;
/** @sriov.vf.ggtt_balloon: GGTT regions excluded from use. */ /** @sriov.vf.ggtt_balloon: GGTT regions excluded from use. */
struct xe_ggtt_node ggtt_balloon[2]; struct xe_ggtt_node *ggtt_balloon[2];
} vf; } vf;
} sriov; } sriov;
......
...@@ -348,7 +348,6 @@ static void xe_ggtt_dump_node(struct xe_ggtt *ggtt, ...@@ -348,7 +348,6 @@ static void xe_ggtt_dump_node(struct xe_ggtt *ggtt,
/** /**
* xe_ggtt_node_insert_balloon - prevent allocation of specified GGTT addresses * xe_ggtt_node_insert_balloon - prevent allocation of specified GGTT addresses
* @ggtt: the &xe_ggtt where we want to make reservation
* @node: the &xe_ggtt_node to hold reserved GGTT node * @node: the &xe_ggtt_node to hold reserved GGTT node
* @start: the starting GGTT address of the reserved region * @start: the starting GGTT address of the reserved region
* @end: then end GGTT address of the reserved region * @end: then end GGTT address of the reserved region
...@@ -357,8 +356,9 @@ static void xe_ggtt_dump_node(struct xe_ggtt *ggtt, ...@@ -357,8 +356,9 @@ static void xe_ggtt_dump_node(struct xe_ggtt *ggtt,
* *
* Return: 0 on success or a negative error code on failure. * Return: 0 on success or a negative error code on failure.
*/ */
int xe_ggtt_node_insert_balloon(struct xe_ggtt *ggtt, struct xe_ggtt_node *node, u64 start, u64 end) int xe_ggtt_node_insert_balloon(struct xe_ggtt_node *node, u64 start, u64 end)
{ {
struct xe_ggtt *ggtt = node->ggtt;
int err; int err;
xe_tile_assert(ggtt->tile, start < end); xe_tile_assert(ggtt->tile, start < end);
...@@ -385,77 +385,124 @@ int xe_ggtt_node_insert_balloon(struct xe_ggtt *ggtt, struct xe_ggtt_node *node, ...@@ -385,77 +385,124 @@ int xe_ggtt_node_insert_balloon(struct xe_ggtt *ggtt, struct xe_ggtt_node *node,
/** /**
* xe_ggtt_node_remove_balloon - release a reserved GGTT region * xe_ggtt_node_remove_balloon - release a reserved GGTT region
* @ggtt: the &xe_ggtt where reserved node belongs
* @node: the &xe_ggtt_node with reserved GGTT region * @node: the &xe_ggtt_node with reserved GGTT region
* *
* See xe_ggtt_node_insert_balloon() for details. * See xe_ggtt_node_insert_balloon() for details.
*/ */
void xe_ggtt_node_remove_balloon(struct xe_ggtt *ggtt, struct xe_ggtt_node *node) void xe_ggtt_node_remove_balloon(struct xe_ggtt_node *node)
{ {
if (!drm_mm_node_allocated(&node->base)) if (!node || !node->ggtt)
return; return;
xe_ggtt_dump_node(ggtt, &node->base, "remove-balloon"); if (!drm_mm_node_allocated(&node->base))
goto free_node;
mutex_lock(&ggtt->lock); xe_ggtt_dump_node(node->ggtt, &node->base, "remove-balloon");
mutex_lock(&node->ggtt->lock);
drm_mm_remove_node(&node->base); drm_mm_remove_node(&node->base);
mutex_unlock(&ggtt->lock); mutex_unlock(&node->ggtt->lock);
free_node:
xe_ggtt_node_fini(node);
} }
/** /**
* xe_ggtt_node_insert_locked - Locked version to insert a &xe_ggtt_node into the GGTT * xe_ggtt_node_insert_locked - Locked version to insert a &xe_ggtt_node into the GGTT
* @ggtt: the &xe_ggtt where node will be inserted
* @node: the &xe_ggtt_node to be inserted * @node: the &xe_ggtt_node to be inserted
* @size: size of the node * @size: size of the node
* @align: alignment constrain of the node * @align: alignment constrain of the node
* @mm_flags: flags to control the node behavior * @mm_flags: flags to control the node behavior
* *
* It cannot be called without first having called xe_ggtt_init() once.
* To be used in cases where ggtt->lock is already taken. * To be used in cases where ggtt->lock is already taken.
* *
* Return: 0 on success or a negative error code on failure. * Return: 0 on success or a negative error code on failure.
*/ */
int xe_ggtt_node_insert_locked(struct xe_ggtt *ggtt, struct xe_ggtt_node *node, int xe_ggtt_node_insert_locked(struct xe_ggtt_node *node,
u32 size, u32 align, u32 mm_flags) u32 size, u32 align, u32 mm_flags)
{ {
return drm_mm_insert_node_generic(&ggtt->mm, &node->base, size, align, 0, return drm_mm_insert_node_generic(&node->ggtt->mm, &node->base, size, align, 0,
mm_flags); mm_flags);
} }
/** /**
* xe_ggtt_node_insert - Insert a &xe_ggtt_node into the GGTT * xe_ggtt_node_insert - Insert a &xe_ggtt_node into the GGTT
* @ggtt: the &xe_ggtt where node will be inserted
* @node: the &xe_ggtt_node to be inserted * @node: the &xe_ggtt_node to be inserted
* @size: size of the node * @size: size of the node
* @align: alignment constrain of the node * @align: alignment constrain of the node
* *
* It cannot be called without first having called xe_ggtt_init() once.
*
* Return: 0 on success or a negative error code on failure. * Return: 0 on success or a negative error code on failure.
*/ */
int xe_ggtt_node_insert(struct xe_ggtt *ggtt, struct xe_ggtt_node *node, int xe_ggtt_node_insert(struct xe_ggtt_node *node, u32 size, u32 align)
u32 size, u32 align)
{ {
int ret; int ret;
mutex_lock(&ggtt->lock); if (!node || !node->ggtt)
ret = xe_ggtt_node_insert_locked(ggtt, node, size, return -ENOENT;
align, DRM_MM_INSERT_HIGH);
mutex_unlock(&ggtt->lock); mutex_lock(&node->ggtt->lock);
ret = xe_ggtt_node_insert_locked(node, size, align,
DRM_MM_INSERT_HIGH);
mutex_unlock(&node->ggtt->lock);
return ret; return ret;
} }
/**
* xe_ggtt_node_init - Initialize %xe_ggtt_node struct
* @ggtt: the &xe_ggtt where the new node will later be inserted/reserved.
*
* This function will allocated the struct %xe_ggtt_node and return it's pointer.
* This struct will then be freed after the node removal upon xe_ggtt_node_remove()
* or xe_ggtt_node_remove_balloon().
* Having %xe_ggtt_node struct allocated doesn't mean that the node is already allocated
* in GGTT. Only the xe_ggtt_node_insert(), xe_ggtt_node_insert_locked(),
* xe_ggtt_node_insert_balloon() will ensure the node is inserted or reserved in GGTT.
*
* Return: A pointer to %xe_ggtt_node struct on success. An ERR_PTR otherwise.
**/
struct xe_ggtt_node *xe_ggtt_node_init(struct xe_ggtt *ggtt)
{
struct xe_ggtt_node *node = kzalloc(sizeof(*node), GFP_NOFS);
if (!node)
return ERR_PTR(-ENOMEM);
node->ggtt = ggtt;
return node;
}
/**
* xe_ggtt_node_fini - Forcebly finalize %xe_ggtt_node struct
* @node: the &xe_ggtt_node to be freed
*
* If anything went wrong with either xe_ggtt_node_insert(), xe_ggtt_node_insert_locked(),
* or xe_ggtt_node_insert_balloon(); and this @node is not going to be reused, then,
* this function needs to be called to free the %xe_ggtt_node struct
**/
void xe_ggtt_node_fini(struct xe_ggtt_node *node)
{
kfree(node);
}
/** /**
* xe_ggtt_node_remove - Remove a &xe_ggtt_node from the GGTT * xe_ggtt_node_remove - Remove a &xe_ggtt_node from the GGTT
* @ggtt: the &xe_ggtt where node will be removed
* @node: the &xe_ggtt_node to be removed * @node: the &xe_ggtt_node to be removed
* @invalidate: if node needs invalidation upon removal * @invalidate: if node needs invalidation upon removal
*/ */
void xe_ggtt_node_remove(struct xe_ggtt *ggtt, struct xe_ggtt_node *node, void xe_ggtt_node_remove(struct xe_ggtt_node *node, bool invalidate)
bool invalidate)
{ {
struct xe_ggtt *ggtt = node->ggtt;
struct xe_device *xe = tile_to_xe(ggtt->tile); struct xe_device *xe = tile_to_xe(ggtt->tile);
bool bound; bool bound;
int idx; int idx;
if (!node || !node->ggtt)
return;
bound = drm_dev_enter(&xe->drm, &idx); bound = drm_dev_enter(&xe->drm, &idx);
if (bound) if (bound)
xe_pm_runtime_get_noresume(xe); xe_pm_runtime_get_noresume(xe);
...@@ -468,23 +515,29 @@ void xe_ggtt_node_remove(struct xe_ggtt *ggtt, struct xe_ggtt_node *node, ...@@ -468,23 +515,29 @@ void xe_ggtt_node_remove(struct xe_ggtt *ggtt, struct xe_ggtt_node *node,
mutex_unlock(&ggtt->lock); mutex_unlock(&ggtt->lock);
if (!bound) if (!bound)
return; goto free_node;
if (invalidate) if (invalidate)
xe_ggtt_invalidate(ggtt); xe_ggtt_invalidate(ggtt);
xe_pm_runtime_put(xe); xe_pm_runtime_put(xe);
drm_dev_exit(idx); drm_dev_exit(idx);
free_node:
xe_ggtt_node_fini(node);
} }
/** /**
* xe_ggtt_node_allocated - Check if node is allocated * xe_ggtt_node_allocated - Check if node is allocated in GGTT
* @node: the &xe_ggtt_node to be inspected * @node: the &xe_ggtt_node to be inspected
* *
* Return: True if allocated, False otherwise. * Return: True if allocated, False otherwise.
*/ */
bool xe_ggtt_node_allocated(const struct xe_ggtt_node *node) bool xe_ggtt_node_allocated(const struct xe_ggtt_node *node)
{ {
if (!node || !node->ggtt)
return false;
return drm_mm_node_allocated(&node->base); return drm_mm_node_allocated(&node->base);
} }
...@@ -497,9 +550,14 @@ void xe_ggtt_map_bo(struct xe_ggtt *ggtt, struct xe_bo *bo) ...@@ -497,9 +550,14 @@ void xe_ggtt_map_bo(struct xe_ggtt *ggtt, struct xe_bo *bo)
{ {
u16 cache_mode = bo->flags & XE_BO_FLAG_NEEDS_UC ? XE_CACHE_NONE : XE_CACHE_WB; u16 cache_mode = bo->flags & XE_BO_FLAG_NEEDS_UC ? XE_CACHE_NONE : XE_CACHE_WB;
u16 pat_index = tile_to_xe(ggtt->tile)->pat.idx[cache_mode]; u16 pat_index = tile_to_xe(ggtt->tile)->pat.idx[cache_mode];
u64 start = bo->ggtt_node.base.start; u64 start;
u64 offset, pte; u64 offset, pte;
if (XE_WARN_ON(!bo->ggtt_node))
return;
start = bo->ggtt_node->base.start;
for (offset = 0; offset < bo->size; offset += XE_PAGE_SIZE) { for (offset = 0; offset < bo->size; offset += XE_PAGE_SIZE) {
pte = ggtt->pt_ops->pte_encode_bo(bo, offset, pat_index); pte = ggtt->pt_ops->pte_encode_bo(bo, offset, pat_index);
ggtt->pt_ops->ggtt_set_pte(ggtt, start + offset, pte); ggtt->pt_ops->ggtt_set_pte(ggtt, start + offset, pte);
...@@ -515,9 +573,9 @@ static int __xe_ggtt_insert_bo_at(struct xe_ggtt *ggtt, struct xe_bo *bo, ...@@ -515,9 +573,9 @@ static int __xe_ggtt_insert_bo_at(struct xe_ggtt *ggtt, struct xe_bo *bo,
if (xe_bo_is_vram(bo) && ggtt->flags & XE_GGTT_FLAGS_64K) if (xe_bo_is_vram(bo) && ggtt->flags & XE_GGTT_FLAGS_64K)
alignment = SZ_64K; alignment = SZ_64K;
if (XE_WARN_ON(bo->ggtt_node.base.size)) { if (XE_WARN_ON(bo->ggtt_node)) {
/* Someone's already inserted this BO in the GGTT */ /* Someone's already inserted this BO in the GGTT */
xe_tile_assert(ggtt->tile, bo->ggtt_node.base.size == bo->size); xe_tile_assert(ggtt->tile, bo->ggtt_node->base.size == bo->size);
return 0; return 0;
} }
...@@ -526,15 +584,26 @@ static int __xe_ggtt_insert_bo_at(struct xe_ggtt *ggtt, struct xe_bo *bo, ...@@ -526,15 +584,26 @@ static int __xe_ggtt_insert_bo_at(struct xe_ggtt *ggtt, struct xe_bo *bo,
return err; return err;
xe_pm_runtime_get_noresume(tile_to_xe(ggtt->tile)); xe_pm_runtime_get_noresume(tile_to_xe(ggtt->tile));
bo->ggtt_node = xe_ggtt_node_init(ggtt);
if (IS_ERR(bo->ggtt_node)) {
err = PTR_ERR(bo->ggtt_node);
goto out;
}
mutex_lock(&ggtt->lock); mutex_lock(&ggtt->lock);
err = drm_mm_insert_node_in_range(&ggtt->mm, &bo->ggtt_node.base, bo->size, err = drm_mm_insert_node_in_range(&ggtt->mm, &bo->ggtt_node->base, bo->size,
alignment, 0, start, end, 0); alignment, 0, start, end, 0);
if (!err) if (err)
xe_ggtt_node_fini(bo->ggtt_node);
else
xe_ggtt_map_bo(ggtt, bo); xe_ggtt_map_bo(ggtt, bo);
mutex_unlock(&ggtt->lock); mutex_unlock(&ggtt->lock);
if (!err && bo->flags & XE_BO_FLAG_GGTT_INVALIDATE) if (!err && bo->flags & XE_BO_FLAG_GGTT_INVALIDATE)
xe_ggtt_invalidate(ggtt); xe_ggtt_invalidate(ggtt);
out:
xe_pm_runtime_put(tile_to_xe(ggtt->tile)); xe_pm_runtime_put(tile_to_xe(ggtt->tile));
return err; return err;
...@@ -574,13 +643,13 @@ int xe_ggtt_insert_bo(struct xe_ggtt *ggtt, struct xe_bo *bo) ...@@ -574,13 +643,13 @@ int xe_ggtt_insert_bo(struct xe_ggtt *ggtt, struct xe_bo *bo)
*/ */
void xe_ggtt_remove_bo(struct xe_ggtt *ggtt, struct xe_bo *bo) void xe_ggtt_remove_bo(struct xe_ggtt *ggtt, struct xe_bo *bo)
{ {
if (XE_WARN_ON(!bo->ggtt_node.base.size)) if (XE_WARN_ON(!bo->ggtt_node))
return; return;
/* This BO is not currently in the GGTT */ /* This BO is not currently in the GGTT */
xe_tile_assert(ggtt->tile, bo->ggtt_node.base.size == bo->size); xe_tile_assert(ggtt->tile, bo->ggtt_node->base.size == bo->size);
xe_ggtt_node_remove(ggtt, &bo->ggtt_node, xe_ggtt_node_remove(bo->ggtt_node,
bo->flags & XE_BO_FLAG_GGTT_INVALIDATE); bo->flags & XE_BO_FLAG_GGTT_INVALIDATE);
} }
...@@ -647,7 +716,6 @@ static void xe_ggtt_assign_locked(struct xe_ggtt *ggtt, const struct drm_mm_node ...@@ -647,7 +716,6 @@ static void xe_ggtt_assign_locked(struct xe_ggtt *ggtt, const struct drm_mm_node
/** /**
* xe_ggtt_assign - assign a GGTT region to the VF * xe_ggtt_assign - assign a GGTT region to the VF
* @ggtt: the &xe_ggtt where the node belongs
* @node: the &xe_ggtt_node to update * @node: the &xe_ggtt_node to update
* @vfid: the VF identifier * @vfid: the VF identifier
* *
...@@ -655,11 +723,11 @@ static void xe_ggtt_assign_locked(struct xe_ggtt *ggtt, const struct drm_mm_node ...@@ -655,11 +723,11 @@ static void xe_ggtt_assign_locked(struct xe_ggtt *ggtt, const struct drm_mm_node
* In addition to PTE's VFID bits 11:2 also PRESENT bit 0 is set as on some * In addition to PTE's VFID bits 11:2 also PRESENT bit 0 is set as on some
* platforms VFs can't modify that either. * platforms VFs can't modify that either.
*/ */
void xe_ggtt_assign(struct xe_ggtt *ggtt, const struct xe_ggtt_node *node, u16 vfid) void xe_ggtt_assign(const struct xe_ggtt_node *node, u16 vfid)
{ {
mutex_lock(&ggtt->lock); mutex_lock(&node->ggtt->lock);
xe_ggtt_assign_locked(ggtt, &node->base, vfid); xe_ggtt_assign_locked(node->ggtt, &node->base, vfid);
mutex_unlock(&ggtt->lock); mutex_unlock(&node->ggtt->lock);
} }
#endif #endif
......
...@@ -13,17 +13,16 @@ struct drm_printer; ...@@ -13,17 +13,16 @@ struct drm_printer;
int xe_ggtt_init_early(struct xe_ggtt *ggtt); int xe_ggtt_init_early(struct xe_ggtt *ggtt);
int xe_ggtt_init(struct xe_ggtt *ggtt); int xe_ggtt_init(struct xe_ggtt *ggtt);
int xe_ggtt_node_insert_balloon(struct xe_ggtt *ggtt, struct xe_ggtt_node *node, struct xe_ggtt_node *xe_ggtt_node_init(struct xe_ggtt *ggtt);
void xe_ggtt_node_fini(struct xe_ggtt_node *node);
int xe_ggtt_node_insert_balloon(struct xe_ggtt_node *node,
u64 start, u64 size); u64 start, u64 size);
void xe_ggtt_node_remove_balloon(struct xe_ggtt *ggtt, struct xe_ggtt_node *node); void xe_ggtt_node_remove_balloon(struct xe_ggtt_node *node);
int xe_ggtt_node_insert(struct xe_ggtt *ggtt, struct xe_ggtt_node *node, int xe_ggtt_node_insert(struct xe_ggtt_node *node, u32 size, u32 align);
u32 size, u32 align); int xe_ggtt_node_insert_locked(struct xe_ggtt_node *node,
int xe_ggtt_node_insert_locked(struct xe_ggtt *ggtt,
struct xe_ggtt_node *node,
u32 size, u32 align, u32 mm_flags); u32 size, u32 align, u32 mm_flags);
void xe_ggtt_node_remove(struct xe_ggtt *ggtt, struct xe_ggtt_node *node, void xe_ggtt_node_remove(struct xe_ggtt_node *node, bool invalidate);
bool invalidate);
bool xe_ggtt_node_allocated(const struct xe_ggtt_node *node); bool xe_ggtt_node_allocated(const struct xe_ggtt_node *node);
void xe_ggtt_map_bo(struct xe_ggtt *ggtt, struct xe_bo *bo); void xe_ggtt_map_bo(struct xe_ggtt *ggtt, struct xe_bo *bo);
int xe_ggtt_insert_bo(struct xe_ggtt *ggtt, struct xe_bo *bo); int xe_ggtt_insert_bo(struct xe_ggtt *ggtt, struct xe_bo *bo);
...@@ -36,7 +35,7 @@ int xe_ggtt_dump(struct xe_ggtt *ggtt, struct drm_printer *p); ...@@ -36,7 +35,7 @@ int xe_ggtt_dump(struct xe_ggtt *ggtt, struct drm_printer *p);
u64 xe_ggtt_print_holes(struct xe_ggtt *ggtt, u64 alignment, struct drm_printer *p); u64 xe_ggtt_print_holes(struct xe_ggtt *ggtt, u64 alignment, struct drm_printer *p);
#ifdef CONFIG_PCI_IOV #ifdef CONFIG_PCI_IOV
void xe_ggtt_assign(struct xe_ggtt *ggtt, const struct xe_ggtt_node *node, u16 vfid); void xe_ggtt_assign(const struct xe_ggtt_node *node, u16 vfid);
#endif #endif
#endif #endif
...@@ -50,9 +50,15 @@ struct xe_ggtt { ...@@ -50,9 +50,15 @@ struct xe_ggtt {
}; };
/** /**
* struct xe_ggtt_node - A node in GGTT * struct xe_ggtt_node - A node in GGTT.
*
* This struct needs to be initialized (only-once) with xe_ggtt_node_init() before any node
* insertion, reservation, or 'ballooning'.
* It will, then, be finalized by either xe_ggtt_node_remove() or xe_ggtt_node_deballoon().
*/ */
struct xe_ggtt_node { struct xe_ggtt_node {
/** @ggtt: Back pointer to xe_ggtt where this region will be inserted at */
struct xe_ggtt *ggtt;
/** @base: A drm_mm_node */ /** @base: A drm_mm_node */
struct drm_mm_node base; struct drm_mm_node base;
}; };
......
...@@ -232,14 +232,14 @@ static u32 encode_config_ggtt(u32 *cfg, const struct xe_gt_sriov_config *config) ...@@ -232,14 +232,14 @@ static u32 encode_config_ggtt(u32 *cfg, const struct xe_gt_sriov_config *config)
{ {
u32 n = 0; u32 n = 0;
if (xe_ggtt_node_allocated(&config->ggtt_region)) { if (xe_ggtt_node_allocated(config->ggtt_region)) {
cfg[n++] = PREP_GUC_KLV_TAG(VF_CFG_GGTT_START); cfg[n++] = PREP_GUC_KLV_TAG(VF_CFG_GGTT_START);
cfg[n++] = lower_32_bits(config->ggtt_region.base.start); cfg[n++] = lower_32_bits(config->ggtt_region->base.start);
cfg[n++] = upper_32_bits(config->ggtt_region.base.start); cfg[n++] = upper_32_bits(config->ggtt_region->base.start);
cfg[n++] = PREP_GUC_KLV_TAG(VF_CFG_GGTT_SIZE); cfg[n++] = PREP_GUC_KLV_TAG(VF_CFG_GGTT_SIZE);
cfg[n++] = lower_32_bits(config->ggtt_region.base.size); cfg[n++] = lower_32_bits(config->ggtt_region->base.size);
cfg[n++] = upper_32_bits(config->ggtt_region.base.size); cfg[n++] = upper_32_bits(config->ggtt_region->base.size);
} }
return n; return n;
...@@ -371,27 +371,26 @@ static int pf_distribute_config_ggtt(struct xe_tile *tile, unsigned int vfid, u6 ...@@ -371,27 +371,26 @@ static int pf_distribute_config_ggtt(struct xe_tile *tile, unsigned int vfid, u6
static void pf_release_ggtt(struct xe_tile *tile, struct xe_ggtt_node *node) static void pf_release_ggtt(struct xe_tile *tile, struct xe_ggtt_node *node)
{ {
struct xe_ggtt *ggtt = tile->mem.ggtt;
if (xe_ggtt_node_allocated(node)) { if (xe_ggtt_node_allocated(node)) {
/* /*
* explicit GGTT PTE assignment to the PF using xe_ggtt_assign() * explicit GGTT PTE assignment to the PF using xe_ggtt_assign()
* is redundant, as PTE will be implicitly re-assigned to PF by * is redundant, as PTE will be implicitly re-assigned to PF by
* the xe_ggtt_clear() called by below xe_ggtt_remove_node(). * the xe_ggtt_clear() called by below xe_ggtt_remove_node().
*/ */
xe_ggtt_node_remove(ggtt, node, false); xe_ggtt_node_remove(node, false);
} }
} }
static void pf_release_vf_config_ggtt(struct xe_gt *gt, struct xe_gt_sriov_config *config) static void pf_release_vf_config_ggtt(struct xe_gt *gt, struct xe_gt_sriov_config *config)
{ {
pf_release_ggtt(gt_to_tile(gt), &config->ggtt_region); pf_release_ggtt(gt_to_tile(gt), config->ggtt_region);
config->ggtt_region = NULL;
} }
static int pf_provision_vf_ggtt(struct xe_gt *gt, unsigned int vfid, u64 size) static int pf_provision_vf_ggtt(struct xe_gt *gt, unsigned int vfid, u64 size)
{ {
struct xe_gt_sriov_config *config = pf_pick_vf_config(gt, vfid); struct xe_gt_sriov_config *config = pf_pick_vf_config(gt, vfid);
struct xe_ggtt_node *node = &config->ggtt_region; struct xe_ggtt_node *node = config->ggtt_region;
struct xe_tile *tile = gt_to_tile(gt); struct xe_tile *tile = gt_to_tile(gt);
struct xe_ggtt *ggtt = tile->mem.ggtt; struct xe_ggtt *ggtt = tile->mem.ggtt;
u64 alignment = pf_get_ggtt_alignment(gt); u64 alignment = pf_get_ggtt_alignment(gt);
...@@ -415,25 +414,33 @@ static int pf_provision_vf_ggtt(struct xe_gt *gt, unsigned int vfid, u64 size) ...@@ -415,25 +414,33 @@ static int pf_provision_vf_ggtt(struct xe_gt *gt, unsigned int vfid, u64 size)
if (!size) if (!size)
return 0; return 0;
err = xe_ggtt_node_insert(ggtt, node, size, alignment); node = xe_ggtt_node_init(ggtt);
if (IS_ERR(node))
return PTR_ERR(node);
err = xe_ggtt_node_insert(node, size, alignment);
if (unlikely(err)) if (unlikely(err))
return err; goto err;
xe_ggtt_assign(ggtt, node, vfid); xe_ggtt_assign(node, vfid);
xe_gt_sriov_dbg_verbose(gt, "VF%u assigned GGTT %llx-%llx\n", xe_gt_sriov_dbg_verbose(gt, "VF%u assigned GGTT %llx-%llx\n",
vfid, node->base.start, node->base.start + node->base.size - 1); vfid, node->base.start, node->base.start + node->base.size - 1);
err = pf_distribute_config_ggtt(gt->tile, vfid, node->base.start, node->base.size); err = pf_distribute_config_ggtt(gt->tile, vfid, node->base.start, node->base.size);
if (unlikely(err)) if (unlikely(err))
return err; goto err;
config->ggtt_region = node;
return 0; return 0;
err:
xe_ggtt_node_fini(node);
return err;
} }
static u64 pf_get_vf_config_ggtt(struct xe_gt *gt, unsigned int vfid) static u64 pf_get_vf_config_ggtt(struct xe_gt *gt, unsigned int vfid)
{ {
struct xe_gt_sriov_config *config = pf_pick_vf_config(gt, vfid); struct xe_gt_sriov_config *config = pf_pick_vf_config(gt, vfid);
struct xe_ggtt_node *node = &config->ggtt_region; struct xe_ggtt_node *node = config->ggtt_region;
xe_gt_assert(gt, !xe_gt_is_media_type(gt)); xe_gt_assert(gt, !xe_gt_is_media_type(gt));
return xe_ggtt_node_allocated(node) ? node->base.size : 0; return xe_ggtt_node_allocated(node) ? node->base.size : 0;
...@@ -2006,13 +2013,15 @@ int xe_gt_sriov_pf_config_print_ggtt(struct xe_gt *gt, struct drm_printer *p) ...@@ -2006,13 +2013,15 @@ int xe_gt_sriov_pf_config_print_ggtt(struct xe_gt *gt, struct drm_printer *p)
for (n = 1; n <= total_vfs; n++) { for (n = 1; n <= total_vfs; n++) {
config = &gt->sriov.pf.vfs[n].config; config = &gt->sriov.pf.vfs[n].config;
if (!xe_ggtt_node_allocated(&config->ggtt_region)) if (!xe_ggtt_node_allocated(config->ggtt_region))
continue; continue;
string_get_size(config->ggtt_region.base.size, 1, STRING_UNITS_2, buf, sizeof(buf)); string_get_size(config->ggtt_region->base.size, 1, STRING_UNITS_2,
buf, sizeof(buf));
drm_printf(p, "VF%u:\t%#0llx-%#llx\t(%s)\n", drm_printf(p, "VF%u:\t%#0llx-%#llx\t(%s)\n",
n, config->ggtt_region.base.start, n, config->ggtt_region->base.start,
config->ggtt_region.base.start + config->ggtt_region.base.size - 1, buf); config->ggtt_region->base.start + config->ggtt_region->base.size - 1,
buf);
} }
return 0; return 0;
......
...@@ -18,7 +18,7 @@ struct xe_bo; ...@@ -18,7 +18,7 @@ struct xe_bo;
*/ */
struct xe_gt_sriov_config { struct xe_gt_sriov_config {
/** @ggtt_region: GGTT region assigned to the VF. */ /** @ggtt_region: GGTT region assigned to the VF. */
struct xe_ggtt_node ggtt_region; struct xe_ggtt_node *ggtt_region;
/** @lmem_obj: LMEM allocation for use by the VF. */ /** @lmem_obj: LMEM allocation for use by the VF. */
struct xe_bo *lmem_obj; struct xe_bo *lmem_obj;
/** @num_ctxs: number of GuC contexts IDs. */ /** @num_ctxs: number of GuC contexts IDs. */
......
...@@ -495,6 +495,25 @@ u64 xe_gt_sriov_vf_lmem(struct xe_gt *gt) ...@@ -495,6 +495,25 @@ u64 xe_gt_sriov_vf_lmem(struct xe_gt *gt)
return gt->sriov.vf.self_config.lmem_size; return gt->sriov.vf.self_config.lmem_size;
} }
static struct xe_ggtt_node *
vf_balloon_ggtt_node(struct xe_ggtt *ggtt, u64 start, u64 end)
{
struct xe_ggtt_node *node;
int err;
node = xe_ggtt_node_init(ggtt);
if (IS_ERR(node))
return node;
err = xe_ggtt_node_insert_balloon(node, start, end);
if (err) {
xe_ggtt_node_fini(node);
return ERR_PTR(err);
}
return node;
}
static int vf_balloon_ggtt(struct xe_gt *gt) static int vf_balloon_ggtt(struct xe_gt *gt)
{ {
struct xe_gt_sriov_vf_selfconfig *config = &gt->sriov.vf.self_config; struct xe_gt_sriov_vf_selfconfig *config = &gt->sriov.vf.self_config;
...@@ -502,7 +521,6 @@ static int vf_balloon_ggtt(struct xe_gt *gt) ...@@ -502,7 +521,6 @@ static int vf_balloon_ggtt(struct xe_gt *gt)
struct xe_ggtt *ggtt = tile->mem.ggtt; struct xe_ggtt *ggtt = tile->mem.ggtt;
struct xe_device *xe = gt_to_xe(gt); struct xe_device *xe = gt_to_xe(gt);
u64 start, end; u64 start, end;
int err;
xe_gt_assert(gt, IS_SRIOV_VF(xe)); xe_gt_assert(gt, IS_SRIOV_VF(xe));
xe_gt_assert(gt, !xe_gt_is_media_type(gt)); xe_gt_assert(gt, !xe_gt_is_media_type(gt));
...@@ -528,37 +546,31 @@ static int vf_balloon_ggtt(struct xe_gt *gt) ...@@ -528,37 +546,31 @@ static int vf_balloon_ggtt(struct xe_gt *gt)
start = xe_wopcm_size(xe); start = xe_wopcm_size(xe);
end = config->ggtt_base; end = config->ggtt_base;
if (end != start) { if (end != start) {
err = xe_ggtt_node_insert_balloon(ggtt, &tile->sriov.vf.ggtt_balloon[0], tile->sriov.vf.ggtt_balloon[0] = vf_balloon_ggtt_node(ggtt, start, end);
start, end); if (IS_ERR(tile->sriov.vf.ggtt_balloon[0]))
if (err) return PTR_ERR(tile->sriov.vf.ggtt_balloon[0]);
goto failed;
} }
start = config->ggtt_base + config->ggtt_size; start = config->ggtt_base + config->ggtt_size;
end = GUC_GGTT_TOP; end = GUC_GGTT_TOP;
if (end != start) { if (end != start) {
err = xe_ggtt_node_insert_balloon(ggtt, &tile->sriov.vf.ggtt_balloon[1], tile->sriov.vf.ggtt_balloon[1] = vf_balloon_ggtt_node(ggtt, start, end);
start, end); if (IS_ERR(tile->sriov.vf.ggtt_balloon[1])) {
if (err) xe_ggtt_node_remove_balloon(tile->sriov.vf.ggtt_balloon[0]);
goto deballoon; return PTR_ERR(tile->sriov.vf.ggtt_balloon[1]);
}
} }
return 0; return 0;
deballoon:
xe_ggtt_node_remove_balloon(ggtt, &tile->sriov.vf.ggtt_balloon[0]);
failed:
return err;
} }
static void deballoon_ggtt(struct drm_device *drm, void *arg) static void deballoon_ggtt(struct drm_device *drm, void *arg)
{ {
struct xe_tile *tile = arg; struct xe_tile *tile = arg;
struct xe_ggtt *ggtt = tile->mem.ggtt;
xe_tile_assert(tile, IS_SRIOV_VF(tile_to_xe(tile))); xe_tile_assert(tile, IS_SRIOV_VF(tile_to_xe(tile)));
xe_ggtt_node_remove_balloon(ggtt, &tile->sriov.vf.ggtt_balloon[1]); xe_ggtt_node_remove_balloon(tile->sriov.vf.ggtt_balloon[1]);
xe_ggtt_node_remove_balloon(ggtt, &tile->sriov.vf.ggtt_balloon[0]); xe_ggtt_node_remove_balloon(tile->sriov.vf.ggtt_balloon[0]);
} }
/** /**
......
Markdown is supported
0%
or
You are about to add 0 people to the discussion. Proceed with caution.
Finish editing this message first!
Please register or to comment